Hồng y Arinze sinh ngày 1 tháng 11 năm 1932, tại Eziowelle, Anambra, thuộc Nigeria. Ông là một người chuyển từ tín ngưỡng truyền thống của châu Phi sang Công giáo[2] và được rửa tội vào ngày sinh nhật 9 tuổi bởi linh mục Michael Tansi, người đã được Giáo hoàng Gioan Phaolô II phong chân phước vào năm 1998. Cha mẹ ông sau đó cũng chuyển đổi sang Công giáo.

Ở tuổi 15, ông vào học tại Chủng viện All Hallows tại Onitsha, và tốt nghiệp năm 1950.[3] Cha ông lúc đầu phản đối việc ông vào chủng viện, nhưng sau khi nhận thấy con mình có lòng hứng thú, cha ông lại khuyến khích Francis Arinze vào học chủng viện. Tuy đã tốt nghiệp, nhưng chủng sinh Arinze ở lại đây để giảng dạy cho đến năm 1953, song song với việc học triết học tại Chủng viện Bigard Memorial tại Enugu.[3]

Năm 1955, ông đến Rôma để học thần học tại Đại học Giáo hoàng Urbanô,[3] nơi ông nhận được văn bằng tiến sĩ trong thần học tín lý summa cum laude.